Interlock:从局部正确到长程智能体任务完成
🧭 长程 Agent 任务合成与完成过滤训练 ★ 深度解读
Peking University · The Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University · Meituan
用 typed completion graph 约束长程任务合成,并以完成过滤的 RFT 提升 Agent 在外部基准上的完成率
📌 工作参考价值(4 点)
- 用 completion graph 管理 Agent 工作流:在电商运营、广告投放、订单履约等长链路任务中,把“证据→决策→下游产物更新”显式建模为 grounding / coupling / realization 关系,可以防止模型只做对局部决策但漏掉预算、排期、报表等连带更新。
- 合成训练任务时做双重 review:source-coverage 保证原始义务不丢失,public-input critic 保证评估标准可由可见材料支撑。迁移到业务里,可用来生成大量带私有 rubric 的 agent 训练任务,同时避免“只有标注者知道的信息”进入评估。
- Agent-as-judge 比纯文本 LLM-as-judge 更有效:让裁判代理能读文件、写并执行验证脚本,只增加约 11% 的 judge token,就能显著提升过滤出的轨迹的训练价值。适合用来筛选线上 agent 执行记录做 SFT。
- 在固定轨迹预算下,扩大任务 domain 覆盖比重复采同一批任务更划算;对推荐/广告 Agent 也是提示:构造跨场景、跨品类的完成型任务,有助于学到可迁移的“把决策落地到所有受影响产物”的能力。
ClawLoop:基于 Harness 原生训练闭环的自改进 Agent 框架
🧭 自改进 Agent 训练闭环 · Harness 原生任务合成 ★ 深度解读
Meituan · Peking University
无外部教师模型下,通过任务合成-训练-诊断闭环实现 harness agent 自改进,并迁移到小模型
📌 工作参考价值(4 点)
- 任务合成用可执行 generator 直接产出环境、答案 key 和 answer contract,避免让 LLM 直接生成答案;电商/搜索场景构造模拟任务(订单聚合、库存核对、报表生成)时可借鉴“生成代码而非标签”,把隐含业务规则写成 skill/contract 文件,确保 reward 可验证且不泄漏。
- SFT 阶段只对 agent action token 计算 loss,mask 掉环境观察 token;多轮 agent 训练中商品详情、日志、工具输出往往很长,不做 mask 会主导梯度,这个 trick 可直接复用。
- RL 用 GRPO 时引入 admission band [N_l, N_h] 只保留当前策略通过率居中的任务,太难或太易都不产生 advantage;推荐/对话策略的自我博弈或课程学习可以按通过率过滤样本,动态保持训练信号密度。
- 诊断反馈闭环:让模型自己总结失败轨迹并聚合 failure patterns,驱动下一轮任务生成;可用于 query 改写、Agent 规划失败归因,自动生成针对性补强数据,不依赖人工分析。
NexForge:通过需求驱动任务合成扩展 LLM 智能体能力
🧭 需求驱动的 Agent 训练数据合成
East China Normal University · Fudan University · Shanghai Qiji Zhifeng Co., Ltd
提出需求驱动的任务合成框架 NexForge,自动生成多样化可执行 agent 训练数据,显著提升 LLM agent 性能
📌 工作参考价值(4 点)
- 借鉴需求驱动思想,根据业务能力需求(如“自动处理退换货”“批量更新商品库存”)自动生成多样化的终端/办公任务,用于微调内部 Agent 模型,降低人工构造成本
- 采用分布感知编译(基于真实需求日志构建情景和任务概况),使训练数据分布更贴近线上实际,减少偏差,可应用于电商搜索广告 Agent 的训练数据生成
- 框架不依赖领域特定基建,可快速跨场景迁移,例如从终端操作扩展到电商后台、广告投放工具等新工具领域,降低工程门槛
- 利用合成的高质量专家轨迹进行 SFT,验证了数据规模和多样性对提升 Agent 任务成功率的重要性,启示我们可通过自动化管线持续扩展 Agent 能力边界